跨国家代码混合的生成式推荐
🧭 生成式推荐 · 跨国家 code-mixing ★ 深度解读
Alibaba International Digital Commerce Group
将多语言 code-switching 思想迁移到跨国家生成式推荐，用 token 级双约束替换和上下文自适应重加权，使小市场显著受益
📌 工作参考价值（4 点）
- 跨市场 ID 隔离时，先建共享语义 codebook（多模态内容 + 跨国家行为 i2i 采样 softmax + RQ-VAE），再在 token 级做数据增强；这比直接替换 item ID 更可控，适合跨境电商/广告召回。
- 替换条件要叠加“静态语义”和“动态市场属性”：token Hamming 距离约束捕获协同结构，价格/热度/受众按国家分位桶化后余弦相似度捕获市场适配；只靠内容相似会掉点。
- 对合成样本引入 stop-gradient 上下文权重 w=Pθ(y'|x)/(Pθ(y|x)+Pθ(y'|x))，训练中原序列做分母，可自动降低不合语境的替换；默认 p=10%、k=10%、λ=0.5 有较好鲁棒性。
- 上线指标参考：离线看国家分层平均，A/B 全量 10% 流量得到广告收入 +1.77%、订单 +2.64%，适合直接作为跨市场生成式推荐 ROI 预期。
拒绝意图而非形式：基于包装的意图组监督用于LLM安全
🧭 LLM 安全对齐训练 · 意图组监督
BrainCog Lab, Institute of Automation, Chinese Academy of Sciences · School of Artificial Intelligence, University of Chinese Academy of Sciences · Beijing Key Laboratory of Safe AI and Superalignment · Ant Group
提出 WIFA 自动增强数据，通过意图组配对和锚定训练改善 LLM 对有害包装的拒绝并减少过度拒绝。
📌 工作参考价值（4 点）
- 数据增强思路：在训练推荐系统或 LLM Agent 时，可针对同一用户意图的不同表达（如 query 改写、prompt 模板变化）构造结构匹配的正负例对，强制模型关注意图而非表面形式，提升鲁棒性。
- 两阶段训练策略：先使用难例（如对抗性样本）进行安全/鲁棒性增强，再通过一致性正则化减少对良性样本的误判，可迁移到电商推荐中需要平衡安全过滤与用户体验的场景。
- 锚定一致性训练：对同一意图的不同表达进行决策分数对齐，确保模型对相似请求响应一致，适用于多轮对话推荐或跨场景的意图识别，减少对同义表达的波动。
- 工程实现提示：无需人工标注每个包装的意图，通过自动配对有害与良性样本可高效构建增强数据，降低数据成本；适用于需要大量多样性表达的业务场景。
从SRA到Self-Flow：数据增强还是自监督？
🧭 扩散模型训练中数据增强机制解析
The Hong Kong University of Science and Technology · Zhejiang University of Technology · Baidu Inc.
证明Self-Flow的改进主要来自双重时间步的数据增强，而非跨噪声token的自监督交互
📌 工作参考价值（4 点）
- 扩散模型训练加速：在推荐系统（如生成式推荐、用户行为序列生成）中训练扩散Transformer时，可直接采用Attention Separation作为一种简单有效的训练技巧，通过阻断不同噪声步token间的注意力，将一个样本拆成多个有效训练部分，扩大数据规模，加快收敛。
- 省去外部编码器依赖：该方法基于自表示对齐，无需额外的预训练编码器（如DINOv2），适合电商场景下多模态数据快速迭代，降低推理成本。
- 训练鲁棒性提升：实验表明，去除噪声间交互甚至优于允许交互，说明在搜索/推荐场景中，对不同噪声水平的序列片段独立建模可能更利于学习干净表示，可尝试在用户长期行为建模中引入类似分片增强。
- 可与现有框架嫁接：Attention Separation不改变模型结构，仅修改注意力掩码，可即插即用于各种DiT基推荐模型（如DreamRec），低风险提升训练效率。
组合合成：通过原子分解与重组扩展代码 RLVR 规模
🧭 代码 RLVR 数据生成 · 原子分解重组
Chinese Information Processing Laboratory, Institute of Software, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Lero the Research Ireland Centre for Software, University of Limerick · The Chinese University of Hong Kong, Shenzhen · The Hong Kong University of Science and Technology
提出原子分解与重组框架，通过分解并受控重组生成新颖、高难度代码任务，提升 RLVR 训练的可扩展性
📌 工作参考价值（4 点）
- 数据增强思想可迁移至推荐/Agent 场景：在生成推荐 Query、Agent 指令或测试用例时，可将现有数据分解为原子元素（如商品属性、用户意图、操作序列），再通过受控重组生成多样化的新样本，提升训练数据的覆盖度和难度。
- 组合式合成解决多样性瓶颈：业务中常遇到训练样本同质化问题，借鉴原子分解思路，设计可组合的原子单元与约束规则，可系统性生成大量不同难度梯度的样本，用于模型能力爬坡。
- 自动生成高质量验证测试：ADR 同步生成代码与对应单元测试的思路，可迁移到 Agent 任务中自动构造评估用例，例如在生成式推荐中自动生成商品描述并附带可验证的约束条件，实现自动化评测。
- RLVR 训练范式在非代码领域的延伸：论文证明了可验证奖励与合成数据的结合能稳定提升模型能力，若能在电商 Agent 任务中定义可自动验证的奖励信号（如订单成功率、交互符合业务规则），则可套用类似框架进行大规模 RL 训练。
LoMo：局部模态替换促进视觉-语言深度融合
🧭 多模态表征对齐与数据增广
Fudan University · Shanghai Innovation Institute · Shanghai Jiao Tong University · University of Science and Technology of China · JD.COM
通过将文本片段渲染为图像来构造交错多模态数据，迫使VLM学习跨模态表征不变性，显著缓解“载体敏感”问题。
📌 工作参考价值（4 点）
- 弱图文对齐场景的增效思路：电商商品信息中图文往往分离，LoMo 的“文本→图像再重写”范式可直接用于商品描述增强，例如将规格参数渲染为图片，迫使多模态模型更关注视觉细节，提升详情页图文一致性校验。
- 低成本跨模态对齐数据合成：无需额外标注，仅需将现有纯文本 Splits 中的关键词（如属性、尺寸）动态渲染成图像，就能构造出强对齐的多模态序列，适合推荐系统里的多模态冷启动或属性抽取任务。
- 模型架构无关的轻量增强：LoMo 仅作用于数据端，不修改 VLM 架构，可以快速插入到现有 Agent 的视觉推理链路（如商品图片问答、图文简历解析）作为 fine-tuning 阶段的简单增强，提升对同一语义在不同载体下的鲁棒性。
- 对 Deep 融合的启发：LoMo 通过“视觉载体与文本载体交替”施加表征不变性约束，这一思想可迁移到多模态推荐中，例如在序列建模中将物品图像与文本标题交替编码，迫使模型学习模态无关的物品表征，有望缓解模态缺失时的性能下降。